ChatGPT用多了会变傻!MIT招募大学生做实验论证,用得越多人越笨
鹭羽 发自 凹非寺
量子位 | 公众号 QbitAI
大学生过度用ChatGPT,用验论越笨大脑会变傻!多会得越多人
MIT最新脑科学研究发现:这类AI工具将会显著降低大脑活动水平,变傻崇左市某某投资管理教育中心削弱记忆,招做实证用甚至造成“认知惯性”。学生
长期依赖,用验论越笨还会影响你的多会得越多人深度思考与创造力。
该实验结合了脑电图神经成像、变傻NLP分析和行为科学,招做实证用也是学生首次用数据证实了这一结论。
网友们也随即发现,用验论越笨类似的多会得越多人影响也出现在使用谷歌地图这类导航工具时,借助工具,变傻反而越来越笨。招做实证用崇左市某某投资管理教育中心
他们认为,学生AI再智能,也只是工具,保持平衡才是用好AI的关键。
正如作者在论文中的描述:
用AI写作就像给孩子计算器——关键不是禁止使用,而是教会他们何时该心算。
那LLM具体是怎么影响到大脑工作的呢?我们接着看实验细节。
LLM vs 搜索引擎 vs 纯大脑
团队共招募54名大学生参与,并随机平均分配为三组,总计参与四轮实验:
- LLM组:仅能使用OpenAI GPT-4o作为唯一信息来源。
- 搜索引擎组:可使用谷歌浏览器辅助,但明确禁止使用LLM增强答案。
- 纯大脑组:禁用LLM及任何在线网站,仅凭自身知识和思考写作。
参与者需全部参加前三轮实验,并使用指定工具完成论文攥写。每轮将提供3个SAT议论文题目以供选择,参与者可自行选择其一,并在规定时间(20分钟)内完成书写。
期间,团队会使用脑电图(EEG)实时记录参与者的大脑活动,以评估他们的认知参与度和认知负荷,并深入了解论文撰写任务期间的神经激活情况。
同时利用自然语言处理(NLP)分析语言特征(如命名实体、词汇搭配),并对每位参与者进行访谈,然后在人类教师和一个专门构建的AI评委的协助下完成论文质量的评分。
实验结果表明,在大脑活动差异上,纯靠自己时大脑各频段段神经连接最强,说明需要调动更多记忆、规划和创造性思维,认知负荷最高,深度思考更充分。
而使用LLM时神经连接则最弱,自主思考大幅度减少,使用搜索引擎时介于二者之间,因为需要自行整合外部信息,视觉皮层活动更多。
在论文质量与记忆上,LLM组的论文结构更紧密规范,但内容同质化高,纯大脑组则体现出更独特的论文风格,反映了个人经验的参与,使用谷歌搜索时更容易受搜索排名的偏见影响,质量保持中等水平。
值得一提的是,过度依赖LLM的参与者很难准确记住自己的论文,83.3%的参与者都没能提供正确引用,他们的记忆编码较浅。
而纯靠自己写的参与者对内容记忆更深刻,只有11.1%的参与者遇到相同困难,但相应的写作耗时更长。
到第四轮实验,团队只选取了其中18名参与者,并按照他们原来的组别被重新分配到相反组别,即让LLM组改用纯大脑写作,纯大脑组改用LLM写作,并要求他们从自己之前写过的主题中挑选一个进行重写。
实验发现,原本使用LLM的参与者在不使用工具的情况下,大脑神经连接仍然弱于原大脑组,且引用能力较差,显示出对工具的依赖,在一定程度上会造成认知惯性。
而原本依靠自己完成的参与者在第四轮使用LLM时,大脑活动反而增强,表现出更高的记忆召回能力,并重新激活了大脑神经网络中的核心节点(枕顶叶和前额叶节点),因为他们同时整合工具建议和自主思考,没有完全依赖LLM。
AI写作下的“认知萎缩”
研究团队发现,从神经认知层面、语言层面再到行为层面,都指向同一个结论:
使用AI写作工具,会降低大脑的认知参与度,长此以往大脑甚至会因为得不到充分锻炼而退化。
具体来说,LLM就像是提供了一个便利陷阱,是以降低神经连接、损伤即时记忆编码置换出的高效率,从而导致记忆衰退、创造力降低,并在切换回无辅助写作时表现出持续性的认知缺陷。
长期依赖LLM,会改变大脑信息处理模式,使大脑从“主动生成信息”转变为“被动筛选信息”,削弱独立思考和问题解决能力。
相比之下,纯大脑写作需要并强化了广泛的神经协调,搜索引擎使用则展现出一种中间状态,涉及更强的视觉执行整合。
举个例子,用LLM写论文就像 “抄答案”,虽然快,但没真正理解解题过程,下次自己做还是不会;纯靠自己就像 “自己推导”,虽然慢但记得牢;搜索引擎类似 “查资料辅助推导”,介于两者之间。
于是研究团队提醒:在学习中要避免过度使用LLM,平衡好工具辅助与自主思考。
尽量将AI用于语法检查、润色或初步资料搜集,而不是直接生成核心内容和结构;在产出文章后,也要务必花时间理解消化,融入自己的见解。
不要把AI当作思考的“替代品”,而应视为“辅助工具”。
论文链接:https://arxiv.org/abs/2506.08872
参考链接:
[1]https://x.com/rohanpaul_ai/status/1934770112483217645
[2]https://www.brainonllm.com/
[3]https://www.linkedin.com/pulse/critical-reading-your-brain-chatgpt-accumulation-cognitive-debt-llqhe/
(责任编辑:热门资讯)
-
董明珠卸任格力芯片公司董事长!曾称做芯片成功了,没拿国家一分钱
董明珠卸任格力芯片公司董事长。天眼查显示,近日,珠海零边界集成电路有限公司以下简称“珠海零边界”)发生工商变更。董明珠卸任法定代表人、董事长,由李绍斌接任法定代表人,并由董事、经理变更为执行公司事务的 ...[详细]
-
当地时间10日凌晨,韩国大部分地区出现破纪录的极端降雨天气,截至目前已造成4人死亡、1人失踪。当天,除首尔市、韩国首都圈北部和江原道北部等局部地区之外,韩国大部分地区出现暴雨天气。位于韩国中西部地区的 ...[详细]
-
近日,南沙某守备部队高级工程师李文波迎来了独属他一人的退役仪式。 1992年,28岁的李文波第一次踏上南沙的土地,30多年来,他和战友们在南沙建起第一套地面气象自动化观测系统,建设了南沙第一个大 ...[详细]
-
瞬息万变的世界,我们总会不经意怀念过去,那些美好的回忆,代表那个时代的人和事,都成为我们心中无法抹去的记忆。所以我一直觉得,时尚不是冷冰冰的橱窗,而是一桩桩牵动思绪的情感,这也是为何“复古”这个词,每 ...[详细]
-
6月19日12时25分,延庆区发布雷电蓝色预警,预计,6月19日13时至19时延庆区有分散性雷阵雨天气,局地短时雨强较大,并伴有7级左右短时大风,请注意防范。6月19日12时30分,怀柔区发布雷电蓝色 ...[详细]
-
北京2024高招录取结果发布中,有些考生在查询时,可能会遇到官网上空白一片的情况。怎么判断是不是没被录取?本批次未被录取会有显示么?会给通知吗?今天,小编就来为考生及家长解答这些疑惑。未被录取会显示什 ...[详细]
-
镇江警方辟谣627分中考生落榜一事,系2016年考生,中考只有360分
中考面临普职分流,而且很多地区没有复读的机会,学生只有一次机会,因此中考的压力不逊于高考。中考生的心理状态和考试的公平性,都值得关注。网传一位中考生因为高分落榜而举报高职院校的老师,为了招生无底线,居 ...[详细]
-
有接近宝马经销商的知情人士透露,价格战之下,预计2024年全年,BBA宝马、奔驰、奥迪)三家豪华品牌在中国市场将损失约50万辆的销量。多位行业人士认为,宝马在华的降价策略并不会带来销量的增长,相反 ...[详细]
-
直播吧6月21日讯 世俱杯小组赛第二轮比赛,博卡0-1落后于拜仁。众多博卡球迷来到现场观看比赛,为球队加油,球迷们充满激情,助威声势惊人。 ...[详细]
-
当地时间17日,法国巴黎一辆汽车冲入一家餐馆的室外座位区,已造成1人死亡。 目前司机在逃,一名车上乘客在酒精和毒品检测中结果呈阳性。 事故原因仍在调查中。总台记者 陈明磊) 此前报道:法国巴 ...[详细]